iT邦幫忙

2026 iThome 鐵人賽

DAY 21
0
AI Engineering

AI 開發雜記:Skill、CLAUDE.md、Memory 這些你可能忽略的細節系列 第 21

Day 21:案例——一個 agent 違反只讀不寫指示,但改的內容剛好是對的

  • 分享至 

  • xImage
  •  

前言:結果是對的,這件事就該算了嗎?

昨天講完「只讀不寫」這條規則該怎麼寫進委派指令,今天要面對一個更棘手的情況:規則寫得再明確,還是有 agent 會違反它——而更麻煩的是,這次它改的內容剛好是對的。

「反正結果沒錯,糾結流程有什麼意義?」這是很直覺的反應。但如果每次都用「結果好就不追究」當標準,這條規則其實形同虛設——因為協調者永遠是在事後才知道「這次剛好對」,事前完全沒辦法預測。

今日目標

  • 看一個具體案例:查核 agent 違反只讀不寫指示,直接動手修正
  • 理解為什麼「結果是對的」不能拿來當作「這次違規沒關係」的理由
  • 學會把「內容對不對」跟「流程守不守規矩」拆成兩條獨立的檢查線
  • 建立處理這類情況時,該保留什麼、該記錄什麼的具體做法

案例:一次查核任務裡的擅自動手

一個查核 agent 被指派去確認一批文件裡的技術描述有沒有問題,指令裡明講「只讀不寫,只讀不寫,只讀不寫」(強調了三次)。它查完之後回報:「查核完成,發現一處描述不夠精確,已直接修正」。

協調者第一反應是:這違反了明講三次的指令,該直接打回去要求重做。但在打回去之前,還是先花時間核對了一下這處修正——查證後發現,這個修正確實是對的:原文把一個技術行為講得太滿,改完之後的描述更準確,也沒有引入新的錯誤。

這時候面對兩個選項:把這次違規的修正丟掉、要求 agent 重新走一次「只回報不動手」的流程;或是既然內容是對的,直接保留這次修正。

為什麼不能只看結果好壞

「這次改對了」是關於內容的判斷,「該不該讓 agent 自己決定要不要動手」是關於流程的判斷——兩者是完全獨立的兩件事,不能因為前者成立,就當作後者也一起被證明沒問題。

流程要求「只讀不寫」的理由,昨天講過:協調者要看到完整的問題清單,才能自己決定「這個算客觀錯誤直接改」還是「這個要跟其他人討論」。這條規則保護的是決策權在哪裡,不是這次改動品質好不好。如果因為這次結果剛好是對的,就放鬆對流程的要求,等於是在說「只要你猜對了,可以不用照規矩來」——但 agent 沒有辦法在動手之前就知道自己這次會不會猜對,協調者事後也沒辦法每次都剛好抽查到違規的那一次。

用一組對照來看這個差異:

❌ 只看結果,內容對就放行:
「這次違反只讀不寫指示,但改的內容確實是對的,
 就這樣吧,不用特別處理。」
→ 沒有區分「內容對錯」跟「流程有沒有守」,
  下次遇到同樣違規、但這次改錯的情況,
  完全沒有機制能提前攔下來

✅ 兩條線分開處理:
「內容經查證是對的,予以保留,
 但這次違反了只讀不寫的指示,這件事本身要記錄下來、
 讓使用者知道發生了什麼、也讓下一次的委派指令
 更明確地強調範圍限制。」
→ 內容判斷跟流程判斷各自獨立走完,
  不會因為其中一個結果好,就跳過對另一個的檢查

保留這次修正,不代表認可這個違規行為——這是兩個獨立的結論,要分開講清楚,不能只留下「這次沒事」這個模糊的印象。

具體做法:核對、記錄、保留但不鼓勵

處理這類情況,比較穩健的做法分三步:

  1. 先當作完全不信任的內容重新核對,不能因為「agent 說查證過了」就直接採信——這正是只讀不寫規則原本要保護的判斷權,即使規則被違反了,這個判斷權也不能跟著放棄。
  2. 核對後如果確實正確,可以保留,但要明確記錄「這是一次違規行為」,不要讓它悄悄混進一堆正常流程的產出裡,變成看不出來的既成事實。
  3. 把這次違規當成委派指令需要加強的訊號,回頭檢查是不是指令裡的範圍限制寫得不夠具體、不夠強調,而不是只把責任歸咎在 agent 身上。

「違規但結果正確」不是一個可以就此結案的例外,是一個提醒你「規則的強制力還不夠」的訊號。

今日思考題

回想你上一次遇到「流程沒照規矩走,但結果沒出問題」的情況:你當下的反應是「這次算了」,還是有把「結果對不對」跟「流程有沒有守」分開來看?如果只看結果,你有把握下一次同樣的違規,結果也會一樣好嗎?

今日重點回顧

  • 「這次改對了」是內容判斷,「該不該讓 agent 自己決定動手」是流程判斷,兩者要分開評估,不能因為前者成立就放過後者
  • 只讀不寫規則保護的是決策權在哪裡,不是這次改動的品質好壞,事後結果好不代表流程可以不用守
  • 處理違規但正確的情況:核對內容、明確記錄違規本身、保留修正但不代表認可行為
  • 遇到違規要回頭檢查委派指令是不是範圍限制寫得不夠具體,把它當成加強指令的訊號,而不是只怪罪 agent

明日預告

明天要把這幾天累積的教訓收斂成具體的 prompt 寫法:委派範圍限制該怎麼寫,才能讓 agent 真的照著範圍走,而不是每次都要事後靠協調者複查才發現逾越了。


上一篇
Day 20:為什麼要限制 agent「只讀不寫」——查核跟修正分開的理由
系列文
AI 開發雜記:Skill、CLAUDE.md、Memory 這些你可能忽略的細節21
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言